생성형 AI와 '누드ify' 앱의 발전으로 성인 콘텐츠 제작자들의 몸이 무단으로 학습 데이터로 활용되거나 도용되어 심각한 정신적, 경제적 피해를 입고 있습니다. 기존의 딥페이크 논의는 얼굴이 도용된 피해자에게만 집중되었으나, 이제는 자신의 몸이 무단으로 사용되는 성인 배우들 역시 '잊혀진 피해자'로 떠오르며 법적, 사회적 보호가 시급해졌습니다.
비영리 연구기관 TTP의 새로운 보고서에 따르면, 구글과 애플의 앱스토어가 유해한 딥페이크 '옷 벗기기(Nudify)' 앱을 단순히 방치하는 것을 넘어 검색과 광고를 통해 사용자들이 다운로드하도록 유도하고 있습니다. AI 기술의 발전으로 이러한 앱에 대한 접근성이 극도로 높아졌으며, 특히 학교 내에서 학폭 및 성범죄 도구로 악용되는 심각한 사회적 문제가 되고 있습니다. 플랫폼 기업들의 명백한 규제 부재와 안전망 부실이 지적되고 있습니다.
AI 포렌식 연구진이 텔레그램 내 합성 누드 봇과 딥페이크를 이용한 체계적이고 수익화된 성범죄 생태계를 고발했습니다. 일반인의 사진을 합성 누드로 만드는 범죄가 자동화 및 프리미엄 결제 시스템과 결합되어 대규모로 확산되고 있어, EU 차원의 강력한 플랫폼 규제와 합성 기술의 전면 금지가 시급한 과제로 제기되었습니다.